人工智能有何隐忧？治理需未雨绸缪
点击蓝字 △ 关注我们
◆ 人工智能军事化带来三重风险
◆ 对经济格局的改变不容小觑
◆ 人工智能可能加剧政治极化
◆ 人工智能或给社会秩序带来冲击
◆ 详细分析↓↓↓
原题《人工智能治理须未雨绸缪》
文/白联磊
作者为中国国际问题研究院欧亚所，经济学博士
人工智能正逐渐应用于社会生活的方方面面，它对各行各业的全面渗透，代表了其改造人类社会的巨大潜力。
人工智能在纯技术层面是价值中立的，但在实际应用中，必然兼具创造性和破坏性。人工智能革命迥然有别于传统的工业革命，其给人类社会造成的冲击也将是史无前例的。当前，其创造性和巨大价值正爆发式地体现出来，但潜在风险尚未被广泛认知，同样应高度关注并积极应对。
【人工智能军事化带来三重风险】
人工智能早已应用于军事领域。无人机堪称人工智能军事化的典型代表，察打一体无人机在信息搜集、处理上就应用了人工智能技术。虽然最终的战斗命令由远程控制人员发出，但人类决策实际上依赖人工智能的信息支持。目前看，人工智能的军事应用面临如下风险因素：
其一，人工智能武器扩散加剧非传统安全问题。人工智能军事化在短期内有助于增强先进国家的防务能力，比如，无人驾驶汽车、自动排爆机器人、街头影像识别系统的大规模应用等，能有效压制恐怖分子、反政府游击队的活动能力。但随着技术普及、价格下降，人工智能武器扩散后将增强技术弱国、非政府行为体的杀伤力。近几年发生多起“伊斯兰国”利用无人机发动袭击的案例，成本低、威力大的移动机器人简易爆炸装置也对驻伊拉克美军构成巨大威胁。
其二，人工智能存在被远程攻击的风险。人工智能的算法可能被攻击，数据库可能被篡改，网络联系可能被操纵。当数据库或算法被攻击时，算法的训练和更新就会偏离预计的轨道，形成恶性算法，在应用时可能无法分清敌我；当远程操控环节或人工智能决策程序被攻击时，己方武器就可能变成敌人的武器。互联网、人工智能和移动设施的融合，让网络攻击从虚拟攻击升级为物理攻击，比如，无人驾驶交通工具也可能被操纵成为杀人工具。这让网络防御变得更为紧迫。
其三，人工智能军备竞赛苗头出现。人工智能在军事领域的巨大价值促使军事强国纷纷发展智能武器平台。美国将人工智能优势与破译敌方密码的不对称相提并论。目前，美国国防部已经利用人工智能增强网络防御能力；美国MAVEN项目组整合了大量人工智能系统，用于搜集和处理情报；美国还在战斗层面大量融合机器学习、人机战斗编组等人工智能要素。俄罗斯军事工业委员会已计划到2030年，将战斗部队中远程操控和自动机器人平台的比例提高至30%。其他面临人力短缺和安全挑战的国家，如日本、以色列，也很可能步其后尘。
虽然人工智能武器的安全性问题、伦理问题、责任追溯问题等都未得到解决，但美国智库普遍主张，为确保军事领先优势，美国在人工智能武器上不应自我设限，而应全力以赴、率先研发、率先应用。2016年12月，中国在联合国第五届特定常规武器大会上提交立场文件，呼吁将全自动武器纳入国际法的管制之下。但至今国际社会尚未就此形成合力。
【人工智能或给社会秩序带来冲击】
人工智能具有歧视、不透明等内在问题。人工智能的核心是算法，算法的表现取决于数据和预设条件（规则）。数据反映了现实，但数据的平衡性、全面性难以保证，由此导致其反映的现实不完整、结论片面或有偏见；即使数据完美反映了现实，现实中固有的歧视、偏见也会在人工智能的行为和决策中有所体现甚至进一步强化。除了数据的问题，预设条件本身是由人设定的，更掺杂了个人化的因素。
因此，算法歧视和偏见已经屡见不鲜。谷歌的图像识别软件曾经将黑人标记为“大猩猩”，在谷歌搜索中黑人的名字往往与犯罪事件合并出现；微软的聊天机器人tay曾经被网民教唆成“政治不正确”的机器人，具有强烈的反犹、性别歧视和种族歧视倾向；Northpointe公司开发的犯罪风险评估算法倾向于将黑人作为高犯罪风险群体等。然而算法本身的问题并未得到普遍监督。因为算法要么本身不公开，要么虽然公开却由于技术门槛，事实上对普通公众不透明，由此其可能的偏见、歧视、不公平问题不能被发现，相应的责任也无法被追溯。
智能音视频合成技术也会冲击社会信任体系。人工智能技术现在已经能够修改视频内人物表情和嘴部动作；在拥有足够训练数据的情况下可以制作能媲美原声的人造录音；基于文本描述而合成的图像能够以假乱真，基于二维图片可以合成三维模型。这些新技术进展意味着音视频、照片的“证据”意义正在下降。
高仿真音视频和图片合成技术至少将对两个领域产生冲击，一是司法证据系统面临如何区分真假音视频/图片证据的难题，技术部门需要开发新的技术手段增强鉴别能力；二是媒体的公信力将遭遇考验。2013年4月23日，黑客控制了美联社的官方推特，发布虚假新闻“重磅：白宫发生两起爆炸，奥巴马受伤”，两分钟后，美国股市市值下跌1360亿美元。一旦合成音视频/图片达到以假乱真的程度，传媒业、金融业都将面临巨大革新压力。
【人工智能可能加剧政治极化】
一方面，数据垄断有走向数据独裁的风险。互联网巨头掌握大量基础数据，有条件将数据转化为商业竞争力，这又有助于黏住更多客户，从而获取更大量的数据。这种正反馈机制会固化独角兽企业的数据垄断地位。数据垄断的基础上会出现算法独裁。基于海量民众数据的算法非常清楚人们的所做、所想、所喜、所需，因而不仅能投其所好，还可以针对性地进行引导。人工智能技术可以通过个性化推荐、频繁提示等诱导人们的行为，意味着人工智能将从“训练算法”的技术准备阶段，过渡到“训练社会”的技术应用阶段。在这种情况下，个人缺乏足够的选择权，大量选择由算法所规定，可能形成“算法独裁”局面，这将对现有政治体系形成微妙而深刻的冲击。
另一方面，滥用数据可能影响政治进程、加剧政治极化。在选举过程中，人工智能能够确定“摇摆群体”，进而通过定向信息投送，诱导他们支持特定方案或个人。随着人工智能成为政治竞争利器，掌握人工智能的独角兽公司不可避免地会卷入政治过程。事实上，大多数国家的搜索引擎和社交平台都由极少数寡头垄断，这些企业不仅能影响公共意见，且有能力隐蔽地远程干预特定国家的内政。人工智能的信息筛选功能将受众屏蔽于不同意见之外，固化其自我认知；通过形成具有共同认知的群体，形成意见共振，持续强化立场的正确性、合理性。这又导致不同群体的意见极化、难以妥协，容易引发极端主义、歧视和社会冲突。目前，社会极化已经出现在美国政治领域。美国民主党和共和党的差异越来越大，两党之间的妥协也越来越难，这反过来又加剧社会分裂。
【对经济格局的改变不容小觑】
首先，对就业格局形成冲击。关于人工智能对就业的冲击存在不同估计。2017年6月前美国财长劳伦斯·萨默斯表示，到2050年自动化技术的普及将令25～54岁人口中的30%失业。麦肯锡全球研究院预测，到2030年机器人最多将取代全球8亿人的工作。这些被取代的工作主要是缺乏创造性、重复性高、技术难度低的工作。旧工作被机器取代的同时，新工作类型也会被创造出来。这种就业结构的变化要求劳动力市场随之变化。在就业格局变化的同时，收入格局也会显著变化，特别是随着人工智能/机器人大量取代人力，大量利润将流向生产资料所有者而非一线劳动力，这将进一步提高资本回报率、降低劳动力报酬水平。上述剧烈变动最终需要各国政府加强社会安全治理予以应对。
其次，人工智能时代发展鸿沟更加凸显。工业革命以来，国家崛起主要依靠对自然资源的开发利用，人工智能时代则主要依靠对数据的开发利用。数据的基础是人口，人口大国将在人工智能时代拥有“数据”这一最宝贵资源。由于人类行为的复杂性、互动的不可预测性，大部分算法不可能脱离数据而存在，任何算法的更新换代都需要最新数据的支撑。这意味着技术水平高的人口小国可以寻求与人口大国的优势互补，但主动权仍然掌握在人口大国手中。技术水平高、人口规模大、互联网普及率高的大国将获得巨大优势，而技术水平低的人口小国将在国际竞争中处于最不利的地位。人工智能技术的发育将令业已存在的国家间数据鸿沟更加凸显，最终会转变成技术鸿沟和发展鸿沟，从而对全球治理提出新挑战。
综合而言，人工智能引发的问题主要包括两大类，一是应用引发的问题；二是人工智能本身存在的问题。因此人工智能治理的落脚点应是在尊重技术发展规律的基础上，充分发挥人工智能的积极效应，防范可能的负面风险。
面对应用问题与技术本身的问题，主要应是针对应用层面开展治理，以减少其对社会政治和安全结构的不利影响。比如，增强国际法对人工智能军事化的规范作用；推广人工智能应用的非政治性原则，避免商业机构操纵政治；同时推动教育结构转型，为人工智能时代的到来做好准备。
而对人工智能本身，当前阶段可着眼于人工智能的伦理、道德、法律标准的沟通和对接，构建适合不同文化、政治制度的通用算法，促进人工智能技术的跨国转移和应用等。LW
刊于《瞭望》2018年第9期
延伸阅读
长按上图，关注瞭望微信
瞭望新媒体，给你权威的新闻洞察力
总监制 | 王磊
监 制 | 潘燕
编 辑 | 唐朵朵
觉得分析不错，请点赞！